เขาเริ่มต้นเส้นทางการเมืองโดยการเป็นสมาชิกสภาจังหวัดประจวบคีรีขันธ์ (ส.จ.) ในปี พ.ศ. 2533 - 2543 เป็นประธานสภาจังหวัดประจวบคีรีขันธ์ (พ.ศ. 2538 - 2540) และเป็นสมาชิกสภาผู้แทนราษฎรจังหวัดประจวบคีรีขันธ์ครั้งแรกในการเลือกตั้ง พ.ศ. 2544 และได้รับการเลือกตั้งต่อมาในปี พ.ศ. 2548, พ.ศ. 2550 และ พ.ศ. 2554

นายเฉลิมชัย ศรีอ่อน ดำรงตำแหน่งรองหัวหน้าพรรคประชาธิปัตย์ ดูแลพื้นที่ภาคกลาง ต่อมาในการปรับคณะรัฐมนตรีของรัฐบาลนายอภิสิทธิ์ เวชชาชีวะ เมื่อวันที่ 6 มิถุนายน พ.ศ. 2553 เขาได้รับตำแหน่งรัฐมนตรีว่าการกระทรวงแรงงานแทนนายไพฑูรย์ แก้วทอง[2]

เขาลงสมัครรับเลือกตั้งในพื้นที่จังหวัดประจวบคีรีขันธ์ในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2562 แต่ไม่ได้รับเลือกตั้ง[3] หลังการเลือกตั้งทั่วไปเมื่อวันที่ 24 มีนาคม พ.ศ. 2562 นายอภิสิทธิ์ เวชชาชีวะ หัวหน้าพรรคได้ลาออกจากตำแหน่ง ทำให้คณะกรรมการบริหารพรรคต้องพ้นจากตำแหน่งทั้งคณะ ซึ่งในวันที่ 15 พฤษภาคม ปีเดียวกัน สมาชิกพรรคก็ได้ลงมติให้นายเฉลิมชัยดำรงตำแหน่งเลขาธิการของพรรค[4]

ในรัฐบาลพลเอก ประยุทธ์ จันทร์โอชา เขาได้รับแต่งตั้งเป็นรัฐมนตรีว่าการกระทรวงเกษตรและสหกรณ์ และเป็นกรรมการศูนย์บริหารสถานการณ์การแพร่ระบาดโรคติดต่อ​ไวรัสโคโรนา​ 2019 ประธานกรรมการในคณะกรรมการกองทุนฟื้นฟูและพัฒนาเกษตรกร [5]